Causal Chain of Thought: Mitigating Attention Leakage via Context Isolation
因果思维链：通过上下文隔离缓解注意力泄漏
🧭 因果推理 · 上下文隔离 CoT
Università della Svizzera Italiana · ETH Zurich · University of Oxford
提出 CausalCoT 推理框架，将问题拆成 DAG 原子子问题并在隔离上下文中求解，提升因果敏感度与解释忠实度
📌 工作参考价值（4 点）
- 在电商推荐/广告的 LLM 解释生成或 Agent 多步决策中，可借鉴 DAG 分解：把复杂任务拆成原子子问题，每个节点只喂直接依赖的上下文，降低无关信息通过注意力污染推理路径的风险。
- 对于多步 query 改写、选品推理等场景，用隔离上下文能减少模型“直接查答案再补理由”的虚假解释，使中间步骤对局部输入更敏感，便于定位错误节点。
- 可复用 test-time intervention 机制：线上发现某个推理节点输出错误时，只需修正该节点即可按依赖图向下游传播，无需重新生成整条推理链，利于实时策略调整。
- 架构上可采用结构化依赖图作为推理骨架，与现有 CoT 或 ReAct 类流程兼容，额外成本主要在子问题拆解和上下文裁剪，适合对可信度和可审计性要求高的推荐解释或风控审核逻辑。